무자비한 알고리즘

🔖 늦게나마 이런 질문을 던지면 미래의 행동을 예측하고 측정하는 것이 그렇게 단순한 문제가 아님을 알 수 있다. 재범 위험을 높이는 요인들이 개인 속에 있는 것이 아닐 때, 개인에게 더 높은 재범 리스크를 부여하는 것이 옳은 일일까? 가령 어느 아이가 가난한 환경에서 자라고, 교육도 잘 못 받고, 가정폭력에 노출되어 있었다면, 이런 '특성'들을 활용해도 되는지를 물어야 할 것이다. 가령 그 부모가 전과자라고 해서, 어느 개인에게 더 높은 위험값을 부여하는 것이 법철학적으로 합법적일까? 어떤 사회적 맥락에서는 그럴 수 있고, 다른 맥락에서는 그래서는 안 되는 것일까? 개인의 이런 특성들이 예측가능성을 대폭 개선한다면 어떻게 할 텐가? 그러면 이런 특성들을 활용해도 될까, 나아가 꼭 활용해야 할까?

🔖 콜린그리지 딜레마를 생각해야 하기 때문이다. 기술이 아직 널리 사용되지 않는 한, 부작용의 전모는 드러나지 않는다. 그러나 일단 광범위하게 사용되면, 통제하고 다루기가 힘들어진다.

그렇다면 각자가 무엇을 할 수 있을까? 당장 시작해보라. 개인적으로 어떻게 결정을 내릴지 생각해보라. 새로운 동료를 채용할 때 어떤 것에 비중을 둘까? 당신이라면 어떤 결정을 내릴까? 데이터가 더 나은 결정을 하는 데 도움이 될까? 내린 결정이 좋은지, 나쁜지를 무엇으로 평가할 수 있을까? 그것을 측정할 수 있을까? (...)

자신이 영향을 미칠 수 있는 범주 내에서 무엇이 좋은 결정일지 고민해 보아야 어느 정도로 기계의 뒷받침을 받을 지도 결정할 수 있을 것이다. 윤리가 컴퓨터에 들어오는 것은 오직 당신과 나, 우리를 통해서만 가능하기 때문이다!